Od početka godine, Kaspersky istraživači su identifikovali više od 15.000 uzoraka malvera koji se predstavljaju kao AI softver, uključujući lažne verzije brzo rastućih alata poput OpenClaw. Među tim uzorcima nalazili su se bankarski trojanci, špijunski softver, kradljivci bankarskih kredencijala, eksploiti i „download“ malvera sposobnih da instaliraju dodatni zlonamerni sadržaj.
U maju 2026. godine, Global Research and Analysis Team (GReAT) kompanije Kaspersky otkrio je i novu kampanju povezanu sa APT grupom Silver Fox. U ovoj operaciji napadači su distribuirali lažne Claude AI aplikacije za Windows, macOS i Linux, ciljajući korisnike koji traže pristup AI alatima. Nakon pokretanja, zlonamerni instaleri su neprimetno instalirali malver na uređaje žrtava, omogućavajući dugoročan pristup kompromitovanim sistemima i osetljivim informacijama.
Ranije istrage Kaspersky istraživača takođe su identifikovale infostealere maskirane kao Claude Code, OpenClaw i druge servisne AI alate, što ukazuje na širi trend u kojem pretnje sve više zloupotrebljavaju poverenje u široko korišćene AI platforme i servise.
Lanci snabdevanja postaju ključna meta u AI ekosistemima
Prema Kaspersky istraživanju, 99% kompanija planira da koristi AI u svojim bezbednosnim procesima. Istovremeno, napadači sve češće ciljaju lance snabdevanja, open-source AI alate i pouzdane AI brendove kako bi dobili pristup korporativnim sistemima i osetljivim podacima. Kompromitovanje lanca snabdevanja postaje jedan od najkritičnijih rizika povezanih sa usvajanjem AI tehnologija. Kako organizacije postaju oslonjene na međusobno povezane AI ekosisteme, jedan kompromitovani komponent može izložiti čitave mreže i poremetiti operacije više organizacija.
Jedan nedavni primer uključuje kompromitaciju biblioteke LiteLLM, široko korišćene Python biblioteke za pristup AI modelima, koja navodno ima oko 97 miliona mesečnih preuzimanja širom sveta. Zlonamerni kod ugrađen u alat bio je sposoban da krade kredencijale baza podataka, fajlove kripto novčanika i druge osetljive informacije.
Sajber-kriminalci takođe maskiraju zlonamerne alate kao legitimna AI rešenja, dodatke i servise koji deluju pouzdano, podstičući korisnike da dobrovoljno otkrivaju osetljive podatke ili instaliraju malver.
AI sistemi se suočavaju sa novim bezbednosnim rizicima
Pored tradicionalnog malvera i pretnji u lancu snabdevanja, organizacije se suočavaju i sa rizicima inherentnim samim AI sistemima, uključujući curenje podataka, pristrasne ili manipulisane skupove podataka, napade „trovanja“ podataka (data poisoning), „prompt injection“, kao i nepredvidivo ponašanje modela ili halucinacije.
Kaspersky stručnjaci takođe upozoravaju na rastuću pretnju tzv. „zlonamernih veština“ – skrivenih, štetnih sposobnosti ugrađenih u AI tokove rada. One mogu izgledati kao legitimni dodaci, promptovi ili ekstenzije, ali su dizajnirane da tajno izvršavaju zlonamerne radnje poput eksfiltracije podataka, izviđanja ili manipulacije izlazima.
Automatizacija širi mogućnosti, ali i povećava rizik
Organizacije sve više očekuju da AI poboljša operativnu efikasnost. Prema Kaspersky istraživanju, 57% kompanija očekuje bolje mogućnosti detekcije pretnji kroz AI, dok 49% očekuje automatizovane mogućnosti reagovanja.
Međutim, automatizacija može doneti i nove rizike. Greške koje generišu AI sistemi mogu se brzo skalirati, a automatizovane odluke mogu se donositi bez dovoljno nadzora. Stručnjaci naglašavaju da ljudski faktor ostaje jedan od najznačajnijih bezbednosnih rizika, uključujući preterano oslanjanje na AI tehnologije, zloupotrebu sistema i nedostatak operativne opreznosti.
Nedostatak kvalifikovanog sajber-bezbednosnog kadra, zajedno sa evoluirajućim AI pretnjama i izazovima u kvalitetu podataka, čini strukturisanu strategiju implementacije AI neophodnom.
Izgradnja otpornosti kroz strukturisanu AI automatizaciju
Implementacija AI vođene automatizacije zahteva sistematičan i pažljivo osmišljen pristup.
Kaspersky preporučuje organizacijama da usvoje sledeće principe:
- Standardizacija: jedinstveni interfejsi, formati podataka i komunikacioni protokoli za doslednu kontrolu i bezbednost kroz sisteme
- Minimalna razmena podataka: svaka strana treba da dobija isključivo podatke neophodne za obavljanje svoje funkcije
- Upravljano poverenje: jasno definisanje ko ili šta komunicira sa sistemom, uključujući precizno određene dozvole za AI aplikacije i servise
- Ljudski nadzor: mogućnost ručne intervencije u kritičnim procesima kada je to potrebno
- Fazna implementacija: postepeno uvođenje uz unapred definisane scenarije povratka na prethodno stanje radi smanjenja operativnog rizika
„Uvođenje AI agenata u poslovna okruženja menja samu prirodu poverenja. Svaka automatizovana akcija postaje deo šireg lanca sistema i razmene podataka, što znači da bezbednost više nije samo zaštita krajnjih tačaka – već kontrola načina na koji se inteligencija, dozvole i odluke šire kroz međusobno povezane AI procese“, objasnio je Dmitry Galov, šef Global Research & Analysis Team-a kompanije Kaspersky za Rusiju i CIS.
Na konferenciji, Luana Lo Piccolo, viša savetnica za tehnološko pravo, AI upravljanje i digitalne globalne poslove izjavila je: „Kako AI sistemi evoluiraju od asistenata ka autonomnim akterima, izazov više nije samo tehnička otpornost, već odgovorna autonomija“. Naglasila je da organizacije moraju uspostaviti okvire upravljanja koji jasno definišu gde je ljudski nadzor neophodan, kako se raspoređuje odgovornost i kako se održava kontrola dok AI sistemi rade sve brže, u većem obimu i sa većom autonomijom.
Pristup bezbednosti i rešenja
Sa tehničke strane, Andrea Fumagalli, savetnik za sajber bezbednost i AI, naglasio je da organizacije moraju usvojiti pristup ‘Assume Breach’ i preći sa tradicionalne otpornosti na sajber-bezbednosnu izdržljivost, posebno kako AI pretnje postaju brže, autonomnije i sve koordinisanije. U bliskoj budućnosti ove pretnje mogu imati neviđen uticaj, naročito u kombinaciji sa napretkom kvantnog računarstva.
Više od 20 godina, tehnologije veštačke inteligencije i mašinskog učenja primenjuju se u sajber bezbednosti za detekciju i odgovor na pretnje u velikim razmerama.
Kaspersky preporučuje sledeća rešenja:
- Managed Detection and Response (MDR)
Kaspersky MDR omogućava bezbednosne operacije vođene ekspertima. Njegov AI sloj automatizacije sada obrađuje oko 25% dolaznih bezbednosnih događaja, dok ljudski analitičari nastavljaju da pregledaju slučajeve kako bi obezbedili kvalitet i smanjili lažno pozitivne rezultate. - Security Information and Event Management (SIEM)
Kaspersky SIEM omogućava proaktivnu detekciju nepoznatih i novih pretnji. Rešenje agregira, analizira i čuva log podatke kroz celu IT infrastrukturu, pružajući kontekstualno obogaćene i primenljive uvide o pretnjama. Nedavno je unapređeno naprednim AI funkcijama, poput prepoznavanja znakova DLL hijacking-a i detekcije potencijalnih kompromitacija naloga. - AI asistent za analitičare
AI asistenti pomažu analitičarima u Security Operations Center (SOC) da brže i preciznije analiziraju incidente, obrađujući, prioritizujući i kontekstualizujući velike količine bezbednosnih podataka. Na primer, Kaspersky Investigation and Response Assistant (KIRA AI) osmišljen je da smanji kognitivno opterećenje analitičara deobfuskacijom komandnih linija, generisanjem rezimea incidenata i prevođenjem upita za lov na pretnje iz prirodnog jezika u strukturisane telemetrijske upite. KIRA AI je dostupan kroz dodatnu licencu u okviru Kaspersky SIEM ili Kaspersky Next.
Kombinacija AI automatizacije i ljudske ekspertize omogućava organizacijama da upravljaju brzo rastućim količinama podataka uz istovremeno održavanje kontrole, tačnosti i otpornosti u sve više AI-ciljanom pretnom okruženju.
